SAIL:通过科学感知循环实现科学智能体智能
🧭 科学智能体训练循环
IQuest Research
35B总参/3B激活的开源科学智能体,用失败诊断自动生成训练任务,性能媲美更大模型
📌 工作参考价值(4 点)
- 业务 Agent 失败诊断闭环:用强模型分析业务 Agent 的失败 case,定位是检索证据选择、规划修订还是工具调用能力不足,再基于业务知识库自动生成带交互轨迹和可执行环境的训练样本,比人工标注更可规模化。
- 小模型逼近大 Agent 能力的训练组合:先做子能力 specialist SFT(如 query 改写、搜索结果筛选),再用多个 frontier model 做多教师 on-policy 蒸馏,最后接入 Agentic RL。适合电商/搜索推荐场景下用低成本模型达到大模型 Agent 效果。
- MoE 架构降低推理成本:35B 总参 / 3B 激活的设计在保持推理低延迟的同时提升多任务能力,对需要实时响应的搜索推荐 Agent 有直接参考价值。
- 搜索型任务重点优化证据选择:论文发现文献任务失败主要来自证据选择,提示可以在搜索推荐 Agent 中显式构造 query 改写、召回结果排序、引用证据一致性等训练数据,而非只依赖端到端生成。
AURA:生产级推荐系统的智能体诊断与代码级优化
🧭 Agent 驱动的推荐系统诊断与代码级优化 ★ 深度解读
The Walt Disney Company, San Francisco, CA, USA
用分层 LLM Agent 从真实会话日志中自动诊断推荐失败模式,并生成代码级修复提案
📌 工作参考价值(5 点)
- 分层聚合框架可复用到电商故障诊断:把 LLM 逐会话判断作为原料,再经分类→合并→采样→分析→验证→综合六步漏斗,产出带严重度、证据和根因假设的失败分类法。可类比识别“高利润商品过度推给价格敏感用户”“长尾库存被埋没”等细分问题,替代人工切片分析。
- 封闭分类法优于开放式:初始发现阶段后锁定类别词汇,避免类别漂移和清理开销。工程上使用数据库支撑的提示模板,支持版本化和回滚,且能通过配置层切换平台。
- 防御性验证层必须做:每个 LLM 输出边界加程序化检查:会话 ID 存在性、JSON schema 校验、代码文件路径验证,防止幻觉标识符和错误引用。这是生产环境可信度的关键,尤其适用于代码生成和数据分析 Agent。
- 多模型路由控成本:高容量分类/合并用轻量模型(如 Flash),低容量分析/验证/综合用前沿模型,可将下游分析成本控制在总成本的 1-8%。
- 离线闭环筛选是廉价门槛:对诊断出的失败模式生成修复代码后,先在诊断队列上离线评估,能快速否决无效改动,避免消耗 A/B 资源。即使是看似合理的特征交叉也可能无效。
Ecdysis:高效训练LLM Agent运行时harness的失败诊断驱动框架
🧭 Agent 运行时自进化 · 失败归因 ★ 深度解读
Chengdu Institute of Computer Applications, Chinese Academy of Sciences · University of Chinese Academy of Sciences · Beijing Institute of Technology · Beijing University of Technology · Yangtze Delta Region Institute of Tsinghua University, Zhejiang
跨任务失败聚合与多角色协作诊断,区分模型适配与系统缺陷,实现训练加速与泛化提升
📌 工作参考价值(4 点)
- 在搜索/推荐 Agent 的 workflow 优化中,不要针对单条失败 case 直接改 prompt 或工具逻辑;先批量收集失败轨迹,按“失败模式”跨任务分组,只对重复出现的模式做系统级修改,能显著减少过拟合和重复修改成本。
- 把“诊断”与“实施”分离:用 Analyst/Critic/Engineer/Moderator 多角色写结构化修改规范,再交给 coding agent 改代码。这相当于在修改工作流前加一道评审,能降低无效修改,提升输入 cache 命中率(论文从 89% 升到 96%)。
- 用诊断价值选训练样本:优先选暴露新交互路径和未知失败机制的任务,而不是全量随机;论文中仅用 1/4 训练失败样本就接近全量效果,可用于电商/广告 bad case 分析的降本。
- 监控 model-accommodation ratio:统计修改中有多少是在迁就当前 LLM 的怪癖;若过高,该 workflow/工具链很可能只对当前模型有效,换模型会退化。可把这个指标纳入 Agent 上线前的回归检查。
AutoSaddler:基于执行轨迹的 Agent Harness 自动优化框架
🧭 Agent Harness 自动优化 · 离线学习 ★ 深度解读
POSTECH · KAIST · Southern University of Science and Technology · Microsoft
将 Agent Harness 优化形式化为离线学习,通过深度诊断、结构化 Patch 与泛化感知选择,在三个基准上提升 9-10 个百分点
📌 工作参考价值(4 点)
- 把 agent 的 system prompt、工具描述、中间件逻辑统一视为可优化代码,建立 mini-batch 离线优化流程:用失败轨迹批量诊断并生成 patch,在同一批上验证提升,再上验证集评估,避免只在单条轨迹上打补丁。
- 采纳结构化 patch 分类(Prompt/Tool/Middleware)并分阶段调度:先允许修改工具实现和 agent loop 等能力层,后期转向提示词/hook 文本;这样能迫使优化过程探索高价值能力改动,而不是只做表面 prompt 文本微调。
- 保留 harness 演化图(EvoDAG)作为优化记忆,允许进化代理重组历史成功组件,而非只从最新版本继续;在多轮迭代优化推荐/导购 Agent 的 prompt 与工具配置时,可跳出局部最优。
- 评估 patch 时同时监测 fix rate 与 regression rate,尤其对高频工具或 hook 的修改要防止 over-scoped patch 引入回归;用独立验证集过滤泛化差的更新,能显著减少线上事故。
从噪声轨迹到根因:结构化轨迹分析与因果提取优化Agent
🧭 Agent 优化 · 因果轨迹提取
University of Chinese Academy of Sciences · Microsoft Research
提出STRACE框架,通过失败模式挖掘和因果定位剔除冗余轨迹与无关步骤,实现Agent反思优化的降噪与提效
📌 工作参考价值(4 点)
- 电商搜索/推荐Agent(如多轮对话、多步查询改写)的失败诊断:可构建执行步骤间的依赖图,用LLM判定因果路径,定位根因模块,避免完整轨迹噪声。
- 批量优化时参照STRACE的两阶段设计:先聚类失败模式,去重冗余轨迹,再在代表轨迹内做因果剪枝,减少过拟合常见但低价值错误的风险。
- 对于在线Agent的持续优化,引入“代表性失败”选择策略,替代随机采样或全量重放,提升反思效率和优化信号的纯度。
- 将轨迹结构化为有向依赖图的做法,可复用至复杂Agent链路的调试工具,帮助开发者快速定位瓶颈步骤。
SEAL:智能体与学习环境的协同共进化
🧭 智能体与环境协同进化训练 ★ 深度解读
Ant Group · Westlake University · University of Michigan–Ann Arbor · University of Science and Technology of China
利用可执行验证器为基础的失败诊断作为共享信号,协同进化训练界面与策略,显著提升低资源多轮工具使用学习
📌 工作参考价值(4 点)
- 训练时界面增强而不改评估基准:在工具调用训练中,可对工具描述进行轻量注解(如标注必填参数、枚举值范围),并针对失败返回结构化修复提示,不改变API或评估协议,为强化学习提供更密集的监督信号,类似推荐系统中细化反馈。
- 失败诊断驱动的重要性加权:在GRPO等策略优化中,利用可执行规则将失败归类(参数错误、工具缺失等),根据故障可归因性分配轨迹权重,优先学习有明确修正方向的失败,可在电商多轮Agent训练中加速收敛、提升样本效率。
- 闭环式环境-策略协同迭代:收集当前策略的失败分布(失败画像),动态调整训练界面(暴露约束提示、错误恢复建议),形成“策略暴露短板→环境针对性辅导→策略内化”的闭环,适合需要快速适应新任务或新工具的Agent系统。
- 低资源高效起步:仅用400个训练样本便取得显著提升,适用于标注数据稀缺的业务场景(如新工具上线、冷启动),可快速验证Agent能力边界。
AI Agent 的整体评估与失败诊断框架
🧭 Eval ★ 深度解读
Deepchecks
结合自顶向下与自底向上的跨度级评估,在 TRAIL 基准上实现最优错误定位与分类,证明评估方法论是瓶颈而非模型能力